Probabilitas dan Statistika: Ilmu Ketidakpastian: Dari Probabilitas ke Kemungkinan: Ilmu Inferensi

Inferensi statistik menandai transisi dari memprediksi hasil berdasarkan parameter yang diketahui (probabilitas) menjadi menentukan parameter mana yang paling konsisten dengan data yang diamati (kemungkinan). Sementara fungsi kepadatan probabilitas $f(x|\theta)$ menggambarkan distribusi data $x$ untuk nilai $\theta$ yang tetap, fungsi kemungkinan $L(\theta|x)$ memperlakukan data yang diamati sebagai tetap dan memvariasikan parameter $\theta$ untuk mengukur dukungan relatif terhadap hipotesis-hipotesis yang berbeda.

Prinsip Inversi

Fungsi kemungkinan sering dinyatakan dalam bentuk kepadatan gabungan. Untuk distribusi Normal dengan varians tetap, kemungkinan didefinisikan oleh:

$L ( \theta | x_1, \dots, x_n ) = \exp\left( -\frac{n}{2\sigma_0^2} (\bar{x} - \theta)^2 \right)$

Di sini, kita mengevaluasi "kecenderungan" nilai-nilai $\theta$ yang berbeda berdasarkan rata-rata sampel $\bar{x}$. Untuk menemukan puncak dari kecenderungan ini, kita menggunakan Definisi 6.2.2: log-kemungkinan $l(\theta | s) = \ln L(\theta | s)$. Transformasi ini menyederhanakan hasil kali observasi yang saling bebas menjadi jumlah, sehingga memungkinkan pemaksimalan model kompleks secara komputasi layak.

Contoh Kerja: Survei Tinggi Badan (CONTOH 6.3.5)

Data

Pertimbangkan sampel tinggi badan sebanyak $n=30$ dengan simpangan baku yang dihitung sebesar $s=2.379$. Dengan menggunakan Model Normal Lokasi-Skala, kita berusaha menentukan rata-rata sejati $\theta$.

Inferensi & Presisi

Kesalahan standar dihitung sebagai $s/\sqrt{30} = 0.43434$. Nilai ini mengukur "ketajaman" puncak kemungkinan kita. Kesalahan standar yang lebih kecil menunjukkan puncak yang lebih sempit dan tajam, mencerminkan presisi yang lebih tinggi dalam inferensi kita tentang $\theta$.

Dimensi dan Kendala

Dalam skenario kompleks seperti CONTOH 6.1.5 (Model Multinomial), kita harus mempertimbangkan ketergantungan logis. Seperti yang dicatat, "Perhatikan bahwa pada dasarnya hanya dua dimensi, karena begitu kita tahu nilai dari dua dari parameter $\theta_i$... kita langsung tahu nilai parameter sisanya." Kendala ini sangat penting untuk mendefinisikan ruang parameter $\Omega$ secara tepat.

Dasar Asimtotik

Jembatan dari kemungkinan ke inferensi bergantung pada Teorema Limit Pusat. Saat $n \to \infty$, distribusi estimator kita konvergen. Secara khusus, dalam CONTOH 6.5.4 Model Bernoulli:

$Z = \frac{\sqrt{n}(\bar{X} - \theta)}{\sqrt{\bar{X}(1 - \bar{X})}} \xrightarrow{D} N(0, 1)$

Ini memungkinkan kita mengkuantifikasi ketidakpastian menggunakan interval z dan nilai p, selama kita memiliki sampel yang cukup besar.

🎯 Prinsip Utama

Metode inferensi tanpa distribusi membutuhkan asumsi minimal tentang distribusi sampel, membuatnya tangguh saat keluarga $\{P_{\theta} : \theta \in \Omega\}$ sangat besar. Sebaliknya, metode kemungkinan parametrik bergantung pada kelengkungan log-kemungkinan, di mana Informasi Fisher $nI(\theta)$ menentukan variansi fungsi skor kita.

PERTANYAAN 1

6.1.2: Misalkan bunuh diri terjadi dengan laju $p$ per tahun per orang (Poisson(Np)). Jika kita mengamati 22 kasus bunuh diri dalam $N=30.345$ tahun per orang, berapa fungsi log-kemungkinan $l(p)$?

$l(p) = -30345p + 22\ln(p) + C$

$l(p) = 30345\ln(p) - 22p + C$

$l(p) = e^{-30345p} p^{22}$

$l(p) = -22p + 30345\ln(p)$

PERTANYAAN 2

6.3.14: Interval kepercayaan 0,95 untuk $\psi(\theta)$ adalah $(1,23, 2,45)$. Apakah ada bukti melawan $H_0 : \psi(\theta) = 2$?

Tidak, karena 2 berada di dalam interval.

Ya, karena 2 bukan pusat dari interval.

Ya, pada tingkat $\alpha=0,01$.

Informasi yang tidak cukup untuk menyimpulkan.

PERTANYAAN 3

Verifikasi momen ketiga dari $N(\mu, \sigma^2)$. Ekspresi mana yang mewakili $\mu_3 = E_{\theta}(X^3)$?

$\mu^3 + 3\mu\sigma^2$

$\mu^3 + \sigma^3$

$3\mu^2\sigma + \mu^3$

$\mu^3 + 3\sigma^2$

PERTANYAAN 4

6.5.1: Jika $x_1, \dots, x_n \sim N(\mu_0, \sigma^2)$ dengan $\mu_0$ diketahui, berapa informasi Fisher $I(\sigma^2)$?

$1 / (2\sigma^4)$

$1 / \sigma^2$

$n / (2\sigma^2)$

$2\sigma^4$

PERTANYAAN 5

Dalam model Multinomial k-kategori (CONTOH 6.1.5), berapa dimensi efektif dari ruang parameter?

$k - 1$

$k$

$k^2$

$1$